本月初，国际人工智能顶级会议AAAI 2022（Association for the Advance of Artificial Intelligence,2022）论文录用结果公布，清华SIGS信息科学与技术学部李秀、夏树涛/江勇、王好谦、杨文明等教师团队的7篇论文入选。

AAAI是由国际人工智能促进协会主办的年会，是人工智能领域中历史最悠久、涵盖内容最广泛的国际顶级学术会议之一，也是中国计算机学会（CCF）推荐的A类国际学术会议。据悉，本届会议收到来自全球的9215篇投稿论文，而接受率仅为15%，创历史新低。本次我院信息学部被收录的7篇论文内容涵盖深度强化学习、无监督图像检索、图像风格迁移、人脸识别/特征学习等。具体如下：

图1：从上至下，从左至右分别为：吕加飞、王锦鹏、李一鸣、朱玲慧、林熠阳、张振铎、夏彬

《受限评委下双执行者的高效连续控制》（Efficient Continuous Control with Double Actors and Regularized Critics，作者：控制科学与工程专业2020级博士生吕加飞，导师：李秀）

值函数衡量了从当前的状态出发，采取动作后所能取得的未来累计折扣奖励值。值函数估计问题是强化学习（Reinforcement Learning），尤其是深度强化学习中非常重要的一个问题。对于值函数的准确估计可以使得策略网络向着准确可靠的方向优化。现有的一些值函数估计的经典算法，比如DDPG、TD3等，都或多或少会对值函数进行高估（overestimation）或者低估（underestimation）。近年来的一些方法大多都集中于增强或者改进double critics架构，而长时间忽略了double actors的作用和优点。基于此，作者使用double actors进行值函数修正以获得更好的探索能力和更好的值函数估计，同时对critic网络进行约束以减小值函数估计的不确定度。

图2：Double actors帮助智能体逃离局部最优。图中绿色曲线为真实Q值的分布示意，蓝色竖线表明使用单个actor得到的分布采样点，而红色竖线表示double actors得到的分布采样点。

《使用对比式量化表征学习的无监督图像检索方法》（Contrastive Quantization with Code Memory for Unsupervised Image Retrieval，作者：计算机技术项目2020级硕士生王锦鹏，导师：夏树涛）

量化（Quantization）是一种向量压缩的技术，被广泛应用于大规模的图像检索。无监督的量化表征学习是一个贴近实际而又充满挑战的问题，现有方法大部分是重建式的技术路线，目标是最小化量化前后的语义损失。这些方法都依赖于预训练卷积神经网络的表达能力和泛化性能，预训练网络提取的特征的质量决定了量化后的表征的质量。不同于这些方法，作者从近期对比学习的相关工作中得到启发，并尝试利用该技术学习量化表征，从而减轻对预训练网络的依赖。对比学习是一种有效的无监督表征学习方法，通过数据增广的方式挖掘图像中的语义不变性，指导模型学习。

图3：对比式量化表征学习的框架示意图

《通过验证嵌入的外源特征防御模型偷盗》（Defending against Model Stealing via Verifying Embedded External Features，作者：数据科学和信息技术专业2020级博士生李一鸣/计算机技术项目2020级硕士生朱玲慧，导师：江勇/夏树涛）

模型偷盗者试图逆向出一个和被部署的受害者模型 (victim model) 具有相似功能的替代模型 (substitute model)。训练一个具有良好表现的模型费时费力，因此模型偷盗会对模型所有者带来巨额损失，造成巨大威胁。针对模型偷盗，目前也有一些对应的防御方案。现有的方案绝大多数都是通过引入扰动/随机性等方式提升模型偷盗难度的方式设计的。然而，这类方案一般会对模型的精度造成较大的影响，甚至可能会被后续的一些攻击完全绕过。作者从所有权验证的角度讨论了如何防御模型偷盗攻击，从原理上揭示了现有方法的缺陷，并提出了一种通过验证嵌入外源特征的防御方法，该方法在保证模型精度的同时，能成功验证模型偷盗攻击的存在，且不会引入新的安全威胁。

图4：基于假设检验的所有权验证方案整体流程图

《一种肾组织切片多种染色转移方法》（Unpaired Multi-Domain Stain Transfer for Kidney Histopathological Images，作者：人工智能项目2020级硕士林熠阳，导师：王好谦）

在组织病理分析的过程中，组织化学染色是不可或缺的一步，且不同种类的组织化学染色能提供不同的信息。然而在临床中，组织化学染色具有过程复杂、耗时长、成本高的特点。为此，作者提出了一种染色转移方法，可以通过单一网络生成常见种类的组织化学染色。另外，我们提出的方法具有很好的任务可扩展性，例如可以生成多种染色剂混合染色的结果。

图5：模型框架图

《通过自适应角度蒸馏的姿态不变人脸识别》（Pose-Invariant Face Recognition via Adaptive Angular Distillation，作者：电子与通信工程专业2018级硕士生张振铎，导师：杨文明）

姿态不变人脸识别是目前业界一个有挑战性的题目，主要指人脸识别系统在具有较大姿态变化的困难样本上仍旧可以保证和正脸简单样本同等性能。随着今年深度学习方法的发展，这个问题得到缓解。但是目前的方法需要大量人工精心进行角度标注的训练数据或者需要复杂度高的前处理步骤。基于此，作者提出学习姿态不变人脸特征的新范式，即将教师网络的正面人脸特征的角度信息蒸馏到学生网络中，使得学生网络遇到不同姿态的人脸可以模仿教师网络的输出。此外，为了解决训练数据集中不同姿态样本分布不均衡的问题，本文提出姿态自适应角度蒸馏损失函数，使得网络可以更加关注大姿态变化和困难样本。

图6：整体方案结构示意图

《一种用于超分辨率的高效Non-Local对比注意力》（Efficient Non-Local Contrastive Attention for Image Super-Resolution，作者：电子与通信工程项目2020级硕士生夏彬，导师：杨文明）

图像超分辨率（Super-Resolution）是计算机视觉领域内一个经典的任务，具体指从一幅低分辨率图像中获得相应的高分辨率图像。近年来，深度学习的方法依靠卷积神经网络出色的特征表示能力取得了远超传统方法的表现。基于此，作者提出了一种高效Non-Local对比注意力机制。该模块计算量小于一个普通的卷积层，但是只需要添加5个就可以将一个简单的由残差块堆叠构成的模型（EDSR， 2017）提升到SOTA的效果。为了提高效率，构造一个高斯随机矩阵对非线性函数进行核函数分解来降低计算复杂度。此外，作者为了解决普通的Non-Local模块由于聚合了过多的噪声信息以致性能受限这个问题，提出了稀疏聚合策略。稀疏聚合策略分为两部分，即对输入乘一个放大系数k，以及引入对比学习。对输入乘一个放大系数k，再经过指数函数后，可以进一步扩大非相关特征与先关特征间权重的差距，但是这也会增大高斯随机矩阵的估计误差。为了进一步提高性能，作者引入了对比学习，以求在不增大输入模值的情况下，进一步扩大相似特征与非相似特征间的差距。

图7：高效Non-Local注意描述

《用于参考超分的由粗到细的嵌入PatchMatch以及多尺度动态聚合》（Coarse-to-Fine Embedded PatchMatch and Multi-Scale Dynamic Aggregation for Reference-based Super-Resolution，作者：电子与通信工程项目2020级硕士生夏彬，导师：杨文明）

基于参考的超分辨率（RefSR）在使用外部参考（Ref）图像生成真实纹理方面取得了重大进展，而针对现有的RefSR方法获得了高质量的对应匹配，消耗了关于输入大小的二次计算资源，限制了其应用这一问题，作者提出了一种用于参考超分辨率的加速多尺度聚合网络（AMSA），包括由粗到细的嵌入PatchMatch（CFE PatchMatch）模块和多尺度动态聚合（MSDA）模块。为了提高匹配效率，作者设计了一种具有随机样本传播的新型嵌入PatchMacth方案，该方案包括端到端训练，计算量与输入大小成渐近线性关系。为了进一步降低计算量和加快收敛速度，作者开发了CFE-PatchMatch，即在嵌入PatchMach上应用了分层搜索策略。为了在多个尺度上充分利用参考信息并增强对尺度失调的鲁棒性，又开发了由动态聚合和多尺度聚合组成的MSDA模块。动态聚合通过动态聚合特征来校正小尺度失准，而多尺度聚合通过融合多尺度信息来实现对大尺度失准的鲁棒性。

图8：基于参考的超分辨率加速多尺度聚合网络描述。直接使用C2-Matching训练好的特征提取器来提取匹配特征，然后利用由粗到细的嵌入PatchMatch进行特征匹配，最后将匹配到的高分辨率信息通过多尺度动态聚合模块用于低分辨率图像的细节纹理恢复。

文: 洪明春、吕加飞、王锦鹏、李一鸣、林熠阳、张振铎、夏彬

图：吕加飞、王锦鹏、李一鸣、朱玲慧、林熠阳、张振铎、夏彬

编辑：黄萧嘉